HOMIE: Human-object Centric Video Personalization via Multimodal Intelligent Enchancement
HOMIE:多模态智能增强的人-物中心视频个性化
🧭 人-物交互视频个性化生成
Hong Kong University of Science and Technology
统一处理 inter/intra-subject 的视频个性化框架,通过 MLLM 全局引导注意力提升人-物交互保真度
📌 工作参考价值(4 点)
- 视频个性化在电商中可用于虚拟试穿或商品展示,该工作对人-物交互的可控生成有直接价值,尤其保持主体身份的同时实现合理交互。
- MLLM 融入自注意力的全局多模态引导方式可借鉴:在推荐系统中融合多模态特征时,可尝试在注意力层注入预训练多模态大模型的高层语义特征,增强物品与用户行为的对齐。
- 模态引用嵌入区分不同来源特征(如图像、文本、MLLM 特征),可迁移至多模态用户建模,显式编码不同类型行为序列的模态差异,提升特征融合质量。
- 对抽象概念(如品牌 logo)的自动关联方法,可用于商品属性与视觉风格的隐式绑定,增强生成式推荐中 semantic ID 的视觉化表达。